Elon Musk destaca el enfoque de seguridad de Anthropic sobre OpenAI y propone pruebas cruzadas para la IA
Recibe noticias al instante en WhatsApp
¿Por qué considera Elon Musk que Anthropic es más cuidadosa en materia de seguridad que OpenAI?
Durante su intervención en el evento All-In Summit, Elon Musk afirmó que Anthropic, creadora de la familia de modelos Claude, demuestra una mayor preocupación por la seguridad en comparación con OpenAI. Aunque sostuvo que ambas compañías lideran el sector con capacidades muy parecidas, tildó de “imprudente” un ensayo atribuido a OpenAI donde se usaron agentes de IA para vulnerar sistemas informáticos. No obstante, Musk aclaró que Anthropic no está exenta de riesgos, citando que sus propios empleados han expresado inquietud ante el rápido avance de sus modelos.
¿En qué consiste la propuesta de evaluaciones cruzadas entre competidores de IA?
Para mitigar los puntos ciegos de las auditorías internas, Musk propuso que las empresas líderes (como OpenAI, Anthropic, Google y Meta) compartan acceso anticipado a las API de sus nuevos modelos antes de cada lanzamiento. Este mecanismo permitiría a los competidores realizar pruebas cruzadas dirigidas a identificar riesgos graves, como:
-
Amenazas de seguridad global: asistencia en la fabricación de armas biológicas o nucleares.
-
Comportamientos maliciosos: ejecución de acciones engañosas o vulneraciones informáticas no autorizadas.
-
Alertas públicas: publicación de fallas no resueltas para incentivar correcciones antes de la comercialización.
¿Qué crítica realizó sobre la denominación de los desarrolladores de inteligencia artificial?
Musk cuestionó el hábito de catalogar a estas organizaciones como “laboratorios”, señalando que en realidad son corporaciones con fines de lucro. A su juicio, la presión comercial por no perder terreno frente a los rivales dificulta que las empresas reduzcan voluntariamente el ritmo de sus lanzamientos para profundizar en la seguridad.
